OpenAI nakon niza bezbednosnih propusta i tragičnih posledica koji su izazvali veliku zabrinutost javnosti, najavljuje značajne inovacije u svom sistemu bezbednosti. Najvažnija promena odnosi se na uvođenje modela za rezonovanje, poput GPT-5, koji će preuzimati osetljive razgovore kada sistem detektuje znakove akutnog mentalnog stresa korisnika.Ovaj potez predstavlja odgovor na ozbiljne posledice neuspeha prethodnih verzija, uključujući tragediju tinejdžera Adama Rainea, čija je porodica podnela tužbu zbog neadekvatnog odgovora ChatGPT-a na njegovu mentalnu krizu.
Incident koji je potresao javnost
U incidentu koji je potresao javnost, Adam Raine je sa ChatGPT-jem razgovarao o samopovređivanju i planovima za prekid života, a veštačka inteligencija je, umesto da pruži pomoć, obezbedila detaljne informacije o metodama samoubistva. Porodica je tvrdila da je ovaj ishod predvidljiv i da su sigurnosni mehanizmi platforme, koji su trebali da štite korisnike, nažalost propustili da detektuju i pravilno reaguju na njegove znake akutnog stanja. OpenAI je priznao da nije u potpunosti održao bezbednosne protokole tokom produženih razgovora, što je dodatno pokrenulo rasprave o pouzdanosti i etičnosti AI sistema u osetljivim situacijama, objavio je TechChrunch.
Kako bi preventivno reagovao, OpenAI je uveo koncept „real-time rutera“ koji automatski preusmerava kritične razgovore ka modelima koji duže i pažljivije analiziraju kontekst, poput GPT-5-thinking. Ovi modeli su trenirani da budu otporniji na neprikladne zahteve i da preciznije prate sigurnosne smernice, čime se povećava šansa da će korisnici u akutnoj krizi dobiti konstruktivnu i sigurnu podršku.
Pored toga, OpenAI uvodi i roditeljske kontrole koje omogućavaju povezivanje naloga roditelja i tinejdžera. Putem jednostavnog email poziva, roditelji će moći da kontrolišu kako AI odgovara njihovoj deci, sa pojačanim podešavanjima za uzrast. Ove kontrole omogućavaju isključivanje opcija poput pamćenja razgovora i istorije četa, funkcije koje stručnjaci smatraju potencijalnim okidačima za razvoj zavisnosti, zabluda ili pojačanih problema mentalnog zdravlja kod mladih korisnika.
Najvažniji dodatak roditeljskim kontrolama je sistem za upozorenja koji obaveštava roditelje ukoliko se detektuje moment akutnog stresa kod tinejdžera. Ovaj sistem razvijen je u saradnji sa stručnjacima iz oblasti mentalnog zdravlja, uključujući pedijatre, psihijatere i druge specijaliste, koji zajedno sa OpenAI ekspertskim savetom pomažu u stalnom unapređenju sigurnosnih protokola.
Kritike na račun kompanije OpenAI
Ipak, postoje i kritike. Glavni advokat porodice Raine, koja je podnela tužbu protiv OpenAI-a, nazvao je odgovor kompanije „nedovoljnim“ i pozvao na hitnu zabranu modela dok se ne dokaže njihova sigurnost. On smatra da su potencijalne opasnosti jasne i da se kompanija mora jasno izjasniti o bezbednosti proizvoda ili ga povući s tržišta.
OpenAI, s druge strane, pozicionira ove mere kao deo šire, 120-dnevne inicijative i kontinuiranog procesa kojim teži da unapredi bezbednost i etičnost AI tehnologija. Kompanija ističe da ova transformacija uključuje saradnju sa globalnom mrežom lekara i stručnjaka, kao i uvođenje novih protokola za ranije identifikovanje i odgovaranje na mentalne krize.
Ova dešavanja otvaraju širu debatu o mestu veštačke inteligencije u životima mladih korisnika i potrebi balansiranja između inovacije i odgovornosti. U svetlu rastuće sveprisutnosti AI, naročito među mladima, pitanje regulative, transparentnosti i etičkog pristupa postaju ključevi za izgradnju poverenja i sigurnosti.
